Tháng 10 năm 1947, Văn Cao được cử lên Việt Bắc tham gia kháng chiến chống Pháp. Đúng lúc đó quân Pháp nhảy dù xuống Bắc Kạn, tấn công Việt Bắc. Trên đường đi kháng chiến, Văn Cao qua Phú Thọ, rồi men theo dọc bờ sông Lô để tìm đường lên Chiến khu Việt Bắc [1].

Ngày 24 tháng 10 năm 1947, bộ đội pháo binh của Quân đội Nhân dân Việt Nam, đã chiến thắng trận Đoan Hùng trên sông Lô: bắn cháy 2 tàu chiến và bắn hỏng 2 chiếc tàu chiến khác của Pháp, tiêu diệt hàng trăm lính Pháp, cắt đứt hoàn toàn tuyến vận tải thủy theo đường sông Lô của Pháp. Buộc Pháp phải tiếp tế cho cánh quân của họ ở Tuyên Quang bằng đường không (thả dù) và phải cho quân rút lui khỏi Việt Bắc. Khi thua trận phải rút chạy quân Pháp đã cướp bóc, tàn phá và đốt trụi các làng xóm dọc hai bờ sông Lô.

Quân Pháp vừa rút đi thì cũng là lúc Văn Cao đi ngược dòng Lô giang, trên đường đi ông đã tận mắt thấy các cảnh: xóm làng bị đốt trụi "nền nhà trơ than xám", cảnh "thây giặc trôi trở về ngập bờ", cảnh dân đôi bờ hân hoan chiến thắng, bắt tay vào dựng lại xóm làng, cảnh "đoàn quân thời chinh chiến" trên đường chiến thắng trở về chiến khu, cảnh dòng sông bao la hùng vĩ, chảy về xuôi.

Khi lên tới chiến khu, Văn Cao đã tìm gặp người sĩ quan pháo binh Doãn Tuế, vừa tham gia chỉ huy các trận đánh: Khoan Bộ (tại hai xã Phương Khoan (Lập Thạch) và Bình Bộ (Phù Ninh)), Đoan Hùng (tại xã Chí Đám (Đoan Hùng)) và Khe Lau (Yên Sơn, Tuyên Quang) trong chuỗi chiến thắng sông Lô [2][3], để nghe kể lại diễn biến trận đánh. Doãn Tuế đã dẫn Văn Cao đi dọc bờ sông nơi chiến trường vừa im tiếng pháo, và qua lời kể của Doãn Tuế cảm hứng cho giai điệu bản trường ca ra đời. Trường ca sông Lô được Văn Cao sáng tác rất nhanh và đăng báo Văn nghệ số tháng 3 năm 1948.